JAWS DAYS 2019
•
2 likes•3,344 views
来栖川電算では、お客様と共に様々な AI 技術を研究開発しています。それだけでなく、研究開発プロセスを効率化する基盤サービスも開発運営し、自らの生産性を高めています。このセッションでは、代表的な２つの基盤サービスを開発する上で、AWS がどのように使われ、どのように役立っているか、について解説します。 ・[AHAB] 機械学習の実験を効率的に行うためのサービス ・[ANNOFAB] 機械学習に必要なアノテーション（教師データ）を効率的に生産するためのサービス
Recommended
Recommended
More Related Content
What's hot
What's hot (20)
Similar to JAWS DAYS 2019
Similar to JAWS DAYS 2019 (20)
More from 陽平 山口
More from 陽平 山口 (20)
JAWS DAYS 2019
- 1. A W S と D o c k e r で 実 現 す る A I 研 究 の た め の Pipeline as Code T O C 五 反 田 メ ッ セ 2 0 1 9 . 2 . 2 3 来 栖 川 電 算 取 締 役 山 口 陽 平 JAWS DAYS 2019 ～食せ！！選りすぐりのメニューを！～ Aトラック #jd2019_a
- 2. Pipeline as Code ソフトウェア開発のノウハウで管理を効率化する考え方 • “XXX” as Code – 管理対象をコードとして記述することで、対 象の管理にソフトウェア開発のベストプラク ティス（自動化・版管理）を適用する手法 • 恩恵：再現性・追跡可能性・再利用性の向上 • 具体例：Infrastructure as Code，CI，CD • Pipeline as Code (= PaC) – あらゆる管理対象はパイプライン（それを生 成するプロセス）とみなせるので、あまたあ る “XXX” as Code の総称として使える言葉 2
- 3. 今日話すこと • PaC を AI 研究へ適用する話 ×PaC を AI 開発運用へ適用する話ではない。 • 最近よく聞くようになった MLops（機械学習 のための DevOps）は AI 開発運用の話が多い。 3 AI 開発 AI 運用AI 研究
- 4. 話の流れ 1. はじめに 2. 来栖川電算での AI 研究 3. 実験スケジューラ 4. まとめ 5. 付録 4
- 6. 山 口 陽 平 @melleo1978 • 所属 – 有限会社 来栖川電算 取締役 – 名古屋工業大学大学院博士前期課程修了 • 実績 – IPA 未踏ソフトウェア創造事業採択 – Mashup Awards 9 優秀賞受賞 • 興味 – 機械学習，強化学習，UI/UX – 高速化，省資源化，並列分散 ※実物に髪の毛はありません 6
- 7. 山 口 陽 平 @melleo1978 • ［実践］画像認識 を執筆 WEB+DB PRESS Vol.83 – これから画像認識をはじめる人におススメ 7 – OpenCV の使い 方や実装例 – SIFTなどの各種 アルゴリズムや 特定物体認識の しくみ – 精度改善への取 り組み方
- 8. 来栖川電算 設立 2003年（名古屋工業大学発ベンチャー） 従業員 62人 • SF 世界の技術を実現し、社会に役立てる – AI 技術のライセンス販売・研究・SI • 文字認識，物体認識，動作認識，行動認識 – スマホアプリの企画・制作・運営 スマートライフ技術 NTTドコモ様との共同研究 スマートドライブ技術 大手自動車メーカー様むけ メイドさん もふくめて 8
- 9. 9 AR付箋 書籍の中身を検索するアプリ Cellars ワインラベルで情報検索するアプリ 画像認識API 商品パッケージで情報検索するAPI 生活情報調査 道路沿いの視覚情報を収集し、活用 交通情報調査 道路沿いの視覚情報を収集し、活用 研究開発支援 タンゴチュウ 写真に写る単語を抽出するサービス 走行データ解析 周辺環境を認識し、様々な解析に活用 地図生成 オルソ画像から地物・交通規則を抽出 動作推定API 加速度センサで人の行動を推定 毎朝体操 腕の動きで体操採点するアプリ ヒーローの動きでゲームを制御 なりきり2.0 ー シ ョ ン 認 識 研究開発支援 研究開発支援 AHAB 大量の実験と計算資源を効率的に管理 ANNOFAB 高品質なアノテーションを大量に生産可能 DNNコンパイラ DNNの推論を10～1000倍も効率化 GameControllerizer プログラマブル・ゲームコントローラ 研究開発支援 類似検索 類似検索 類似検索 文字認識 物体認識 物体認識 物体認識 物体認識 モーション認識 モーション認識 モーション認識物体認識 瞳孔位置推定 眼球運動を監視し、眠気の推定に活用
- 11. 技術者集団 様々なアルゴリズムや知識で課題解決 • 最先端の AI 技術 – 文字認識，物体認識，モーション認識 • 限界性能を引き出す優れた実装技術 – 機械学習・コンパイラ・データベースなどの アルゴリズムやバイナリハックを駆使した高 精度化・高速化・省資源化・並列化・分散化 • 高品質なソフトウェアを実現する技術 – 言語・アーキテクチャ・プロセスに対する深 い理解に基づく設計と計画 11
- 20. AI 研究者の仕事 仮説検証を回し、どうやればいいかを明らかにすること • たくさんの実験の実施 ⇒ 良い結果 • 絡み合う実験の管理 ⇒ 研究の信頼性 20
- 22. AI 研究者の悩み たくさんの絡み合うデカい実験を扱えるツールがない！ • こんな実験が “めっちゃ” たくさんある – 複数の工程からなる微妙に設定が異なる実験 – デカくて時間がかかる実験 • こんなことが ”よく” 起きる – 手作業が挟まると取り違える。 – 後で確認（やり直し）したくなる。 – たまに死ぬので途中から再開したくなる。 • ⇒ 実験パイプラインのコード化が重要 22
- 23. 計算環境の制約 いろいろな環境の GPU を必要な時に必要なだけ使いたい • 各人が占有するやり方はしたくない – 費用・電源が足りない。調達運用したくない。 – そもそも GPU 1 枚/人程度じゃ全然足りない。 • お客様が貸してくれる環境も活用したい – 大規模なオンプレ環境を用意してくれる。 • よく不足するのでクラウドも活用したい – 突発的に百枚単位でいることがある。 • ⇒ 計算環境の抽象化・共有が重要 23
- 24. 実験スケジューラ AWS × Docker で実現する 24
- 26. 計算環境の抽象化 計算環境を替えても同じコードで OK ハードの隠蔽 26 WebAPI・CLI WebAPI・CLI WebAPI・CLI 実験パイプライン ・実験コードの Docker 化 ・実験の依存関係のコード化 ※二段階のコード化
- 28. まとめ AHAB は AI 研究にまつわる課題を解決 • 実験の自動化と計算環境の隔離 ※Docker – 他の実験の計算環境・コード・データとの干 渉による不正計算や異常停止が起きない。 • 計算環境の抽象化 ※Web API，CLI，Docker – 計算環境（自社・お客様・クラウドなど）が 変わっても同じコード・データが使える。 • 効率的な計算資源の割当と伸縮 – 個人で計算資源を占有せず、全員で共有 28
- 31. 31
- 33. 33
- 35. 35 また同じの作っちゃったよ 毎朝体操のデータ同期基盤のときもヤラレタ Amazon Cognito Sync & AWS AppSync
- 37. AHAB ユーザ増殖中 顧客が来栖川電算のプロセスを取り入れたい • 研究プロセスを標準化したい – ⇒ AHAB で Pipeline as Code • 計算資源の利用を促進したい – ⇒ AHAB でオンプレの計算資源をクラウド化 • 計算資源のコストを抑えたい – ⇒ AHAB でオンプレと AWS のハイブリッド • 納品物の検収を楽にしたい – ⇒ AHAB で納品して勝手に検収環境を構築 37
- 38. まとめ AI 研究のための Pipeline as Code 38
- 39. まとめ１ Pipeline as Code は AI 研究の課題を解決 • 研究を上手く進めるには – たくさんの実験の実施 ⇒ 良い結果 – 絡み合う実験の管理 ⇒ 研究の信頼性 • たくさんの絡み合う実験の管理には – 実験パイプラインのコード化が重要 – 計算環境の抽象化・隔離・共有が重要 • 実験スケジューラがあればやれる – AHAB，AWS Batch，Amazon SageMaker 39
- 40. まとめ２ AI 研究のための Pipeline as Code やるなら • AWS Batch / Amazon SageMaker – すごく便利なので初心者は使うべき – ただし、ちょっとお高い • AHAB – 規模が大きくなってきて費用が気になるなら – オンプレ・ハイブリッドクラウドなら • 教訓 – 基盤的な機能が欲しいと思ったら数年待て – なければ作れ！数年先行できるのはデカい 40
- 47. その他 徹底的な自動化支援 ⇒ Web API と CLI により、大量一括処理や外部システムとの連携が容易 多言語対応 ⇒ 表示されるメッセージは全て日本語と英語に対応。カスタマイズ可能 プライベートストレージ対応 ※有料オプション ⇒ セキュリティが心配な方のために、社内ストレージに対応 プロフェッショナルサービス ※有料オプション ⇒ アノテーション作業，AI開発，これらに対するコンサルティング 47
- 48. ANNOFAB Scala.js × AWS Lambda でサーバレスを実現 • スケーラブル • インフラ監視不要 • アクセス量に応じたコスト 48 Cognito LambdaAPI GatewayCloudFrontUsers S3 DynamoDB ElasticsearchSQS SNS X-RayCloudWatch SES
- 49. 製品・サービス 付録① 49
- 51. 画像認識 API 商品パッケージで情報検索する API 商品パッケージが写った画像を送信するだけで、膨大 な DB から瞬時に種類を特定。クロールした画像から 直接構築した DB を利用。 51
- 52. Cellars ワインラベルで情報検索するアプリ ワインラベルにスマホをかざすだけで、18 万件から 瞬時に種類を特定。国内外のコンテストで入賞。株式 会社 Cellars 様による弊社技術の応用事例。 52
- 53. AR 付箋 書籍の中身を検索するアプリ 書籍を開いてスマホをかざすだけで、膨大な DB から 瞬時にページを特定し、貼られている付箋を表示。お 客様による弊社技術の応用事例。 53
- 55. 走行データ解析 周辺環境を認識し、様々な解析に活用 膨大な走行データから歩行者・車両・白線・標識など を検出・追跡し、索引化。必要に応じて、CAN や Lidar なども活用し、高品質化。 55
- 63. 動作推定 API 加速度センサで人の行動を推定 スマホやウォッチの動きから静止・歩行・走行・食 事・睡眠などを推定。同じ仕組みで撮影時の手振れ検 出も可能。株式会社 NTT ドコモ様との共同研究。 63
- 64. 毎朝体操 腕の動きで体操採点するアプリ 100 ヶ国 20 万人を超えるユーザから日々送られてく るセンサデータを学習することで体操採点の正確さが 自動改善。JFE スチール株式会社様へ導入。 64
- 67. DNN コンパイラ DNNの推論を 10 ～ 1000 倍も高速化 重みや活性の量子化・スパース化、計算の共有などの 様々な手法で DNN を近似し、高速化・省資源化され た実行形式（Linux・Android・iOS）へ変換。 67
- 69. ANNOFAB 高品質な教師データを大量に生産可能 品質と生産性のトレードオフ、誤り漏れの削減、きめ 細かく柔軟な仕様・課題・進捗の管理。実務で培った ノウハウが詰まったアノテーションサービス。 69
- 72. 体制 AI 実現のための全業務をカバー 72 AI アプリ SI インフラ AI インフラ データ モデル 研究者アノテータ デザイナ 開発者 職種 正社員 アルバイト 合計 24 時／週以上 12 時/週以上 ※即戦力 試用期間 研究者 20 % 2 % 10 % 0 % 32 % 開発者 15 % 7 % 12 % 3 % 37 % デザイナ 0 % 0 % 3 % 0 % 3 % アノテータ 5 % 23 % 0 % 0 % 28 % 合計 40 % 32 % 25 % 3 % 100 %
- 73. 設備 研究開発を円滑にするためにあらゆる手を尽くす • 理想的な個人設備 ※好きなものが選べる – PC，椅子，モニタ，キーボード，マウス，… • 豊富な計算資源とアノテータ ※使いやすい – Ahab：実験用ハイブリッドクラウド – ANNOFAB：アノテーションサービス • 豊富な独自データ ※世界中からどんどん集まる – 自動運転用データ，商品認識用データ，文字 認識用データ，体操採点用データ，… 73
- 74. サポート 技術を磨きやすくするためにあらゆる手を尽くす • 様々な働き方 – 自由な時間帯・場所，冒険者制度，… • 優秀な同僚 ※メンタリング（JEDI） – IPA 未踏ソフトウェア創造事業採択者，コン テスト入賞者，OSS コントリビュータ，… • その他 ※全て会社負担 – 自己研鑽のための書籍・機材の購入 – 勉強会・懇親会の開催・参加・移動・宿泊 – 会社の昼会・夕会・飲み会で供される飲食物 74